¿Se acercan los jueces robots en Colombia?, uso de IA en la función pública

Mucho revuelo causó la sentencia T-323 de agosto de este año en donde la Corte determina algunos lineamientos con respecto al uso de inteligencia artificial en la administración de justicia.

Más allá del fondo del asunto, lo que nos interesa aquí es la referencia a que el juez de impugnación usó ChatGPT para motivar parte de la decisión de la impugnación. Según los fundamentos fácticos descritos por la Corte el referido juez de impugnación mencionó en su escrito que usaría inteligencia artificial “para extender los argumentos de la decisión adoptada”, lo cual da a entender que realmente la motivación de la sentencia ya estaba terminada y “solo” uso ChatGPT para profundizar en aquello que ya había decidido.

No obstante, cabe preguntarse qué hubiera pasado si, por ejemplo, para algunas de las preguntas en donde el juez estaba absolutamente convencido de cuál debía ser su posición, el sistema le hubiera recomendado una posición totalmente contraria a la que ya había adoptado.

¿No sería al menos probable pensar que la decisión inicial adoptada por el juez se podría haber visto afectada por la recomendación del sistema?

En efecto la Corte advirtió en su análisis que los jueces pueden, consciente o inconscientemente, delegar parte de su función decisoria a la IA, especialmente si confían ciegamente en las respuestas generadas por estas herramientas.

Esto no necesariamente es una consideración problemática si en el mercado existiera alguna solución de IA que contara con la confiabilidad necesaria para asegurar que las respuestas brindadas fueran verídicas, pero bien es conocido el fenómeno de las “alucinaciones de la IA”, incluso en aquellos sistemas o plataformas que cuentan con repositorios especializados de información legal, fenómeno que está mucho más presente entonces en los modelos generales como en efecto ocurrió en este caso en donde la herramienta usada fue ChatGPT, un modelo comercial de acceso libre y entrenado con información general de internet, más no una herramienta especializada para lo legal.

La falta de entrenamiento sobre el uso de soluciones de IA y el dominio de estas por la comunidad jurídica colombiana genera al menos cierto nivel de preocupación sobre el hasta qué punto el uso indiscriminado de la inteligencia artificial podría afectar la racionalidad y criterio de los jueces a la hora de tomar decisiones basadas en información provista previamente por un sistema de esta naturaleza.

Aunque es de aplaudir que la Corte Constitucional esté abriendo la discusión sobre el uso de inteligencia artificial en la función pública y más particularmente en la administración de justicia, es urgente que el Consejo Superior de la Judicatura como ente rector del poder judicial en el país tome el liderazgo de la conversación e inicie a la brevedad un robusto programa de capacitación y certificación en el uso de soluciones tecnológicas, no solo de IA, para los funcionarios de la administración pública en el país antes de que la situación se salga de control y los funcionarios del Estado malinterpreten el querer de la Corte Constitucional y piensen entonces que ahora tienen vía libre para motivar la mayoría de decisiones usando IA sin entender o siquiera conocer los riesgos que esto conlleva.